超越最终 Embedding：从 Token 级证据中检索记忆
🧭 RAG 记忆检索 · token 级匹配 ★ 深度解读
Southeast University · MemoraX AI · Leiden University · University of Sydney
冻结 embedding 的 token 级稀疏匹配融合整句相似度，无需训练提升记忆检索
📌 工作参考价值（4 点）
- 可复用现有 embedding 模型已经算好的 token hidden states：给商品/内容/会话记忆建 token 级 HNSW 索引，query token 检索后按 source memory ID 聚合，再与整向量相似度做 query-wise 标准化融合。无需训练 encoder 或重建文档索引，适合快速在现有召回链路上加一层局部证据信号。
- 工程实现上，保留 token 到 memory/item 的 ID 映射，聚合时用检索到的最后一个 token 的 clipped similarity 作为缺失分 floor，能显著减少 HNSW 漏召回的影响；k=64、α=0.5 在多个 backbone 上稳定，可直接作为默认参数。
- 可选的 LoRA query adapter 只训练 query token states，保持 item/memory 侧索引完全不变，对商品库频繁更新、多租户场景很友好；上线只需替换轻量 query 头。
- 存储与延迟权衡：token 索引不压缩会大很多，但 SQ4 可压缩 81–85%，质量几乎不降；大规模商品/内容索引可优先上 SQ4，进一步降本可试 RP128+SQ4，但质量损失更明显。
NEAR：面向记忆检索的邻域感知残差框架
🧭 记忆检索 · 邻域残差投影 ★ 深度解读
Southeast University · MemoraX AI · Leiden University · University of Sydney
训练无关地用邻居方向构造投影残差，把共享主题带来的干扰记录转为匹配信号，单次 ANN 检索提升记忆召回。
📌 工作参考价值（4 点）
- 可把“同品牌/同店铺/同话题商品的向量相似但证据不相关”问题转化为局部参考：离线对每个 item/memory 用 top-k 邻居均值方向做投影残差，抑制类目/品牌共性，放大差异；适合商品召回、内容去同质化。
- training-free + 固定索引：残差和原向量拼接成静态 key，线上只做一次内积 ANN（如 HNSW），不用改 encoder 或做多路召回，便于接入现有 embedding 库。
- query 侧参考由 16 个 anchor 的 spherical K-means + softmax 路由生成，避免在线先检索邻居，工程轻量；可迁移到 query embedding 的在线局部校准。
- 存储/延迟可控：NEAR 未压缩是 Base 2x 存储、约 2.39x 延迟；用 SQ4 可压到 Base FP32 的 0.36x，Recall 几乎不变。适合大规模 item/memory 索引，结合业务接受度调节 residual weight/depth。
NativeScope：基于正确锚点的原生拓扑关系限定检索
🧭 关系限定检索 · 原生拓扑锚点
用 (A,r,B) 关系范围限定再排序，RAG 召回在文档/记忆上提升 42.75/22.00 个百分点
📌 工作参考价值（4 点）
- 在电商知识库或客服 Agent 中，商品详情页模块、订单时间线、客服会话轮次等原生结构都可以作为 belonging/before/after 的范围过滤信号；先把用户问题中已有的锚点（如商品 ID、会话时间点）转成 scope，再在范围内做语义排序，能显著减少无关 chunk 召回。
- 工程上优先建设结构化范围索引，而不是只优化 query 改写：论文中 NS-FullQ 与短 query 版本差异不显著，说明主要收益来自关系性范围限定，而非排序问题变短，因此应把原生拓扑和过滤算子纳入检索链路。
- 自动锚点定位会带来明显风险：Top-1 自动锚点让记忆召回从 72.50% 跌到 35.50%。业务上应优先使用用户显式选择、稳定记录 ID 或高置信度上游定位器；弱锚点场景需要软约束或回退到全局检索，避免硬范围过滤继承定位错误。
- 可复用的评估思路：把检索评估拆成“给定正确锚点的条件召回”和“自动锚点定位”两部分，能更清楚地区分定位误差与范围检索能力，适合在搜索/推荐/Agent 记忆系统中做模块化归因。
AI 的真实长期记忆：5000 万 token 窗口，比重算更快更省
🧭 LLM 推理 · KV 卸载长期记忆 ★ 深度解读
Corbenic AI
将 KV state 加密落盘并按需恢复，实现 50M token 零重算长期记忆，恢复比重算快 2.8–4.3 倍、省 8.8–12.3 倍 GPU 能耗
📌 工作参考价值（4 点）
- 在电商/广告/推荐 Agent 中，若大量 prompt 反复包含同一用户历史、商品序列或政策知识，可把已处理 prefix 的 KV 状态落盘复用，而不是每次 RAG re-read：单 block 恢复比重算快 2.8–4.3×，能耗降 8.8–12.3×，且 TTFT 不随历史深度增长，适合长 session 个性化。
- 对含敏感 PII 的长期用户记忆，可用 AES-256-GCM 加密 KV store 作为组织级 durable memory；字节精确恢复避免文本重读和潜在泄露，同时小模型/大模型共享同一存储，日常请求用小模型，复杂问题用大模型读取同一个 memory。
- 评测长期上下文时，采用盲摄入 + needle/decoys + negative control + 存储审计的防作弊协议，避免仅靠前缀缓存命中或 keyword match 假阳性；业务侧做 A/B 时可借鉴分离「状态恢复命中率」和「模型回答准确率」两个指标。
- 注意：方案依赖 local NVMe 和 sliding-window attention 的低 KV footprint（Gemma 4 12B 仅 36.4 KiB/token），对 full-attention 模型需评估存储成本；当前只做单块 restore，不扩大单次 attention 窗口，也不做 learned retrieval。
能力驱动的 Agent 记忆自进化
🧭 Agent 记忆自进化 · 能力驱动 ★ 深度解读
University of Science and Technology of China · Microsoft · University of California, San Diego
将整体性能搜索分解到能力维度，通过能力专家与痕迹引导集成，在百万token基准上比最强基线高7.83–10.54个百分点
📌 工作参考价值（5 点）
- 把记忆系统拆成 Extraction / Indexing / Planning / Retrieval / Answer 五个可独立修改的接口，让 LLM 只局部改出问题的组件，避免整体重写；可直接迁移到电商 Agent 的记忆或检索模块自动调优。
- 不要只用整体指标指导进化，按能力维度（事实检索、时间追踪、偏好提取、多会话合成、对抗性）各自维护 specialist，保留被整体分数掩盖的局部增益；这在多目标冲突严重的推荐/广告系统中尤其有用，能防止某个目标的小改进被其他目标回退淹没。
- 依赖感知能力选择：量化一个能力的缺陷对另一能力任务的错误压力（公式 1-6），优先改瓶颈能力；可用于多目标排序/召回策略的自动搜索调度。
- 用 paired differential cases 比较 base 与 specialist 在同一批 case 上的行为差异，再让 coding model 合并互补收益；适合集成多个推荐策略或记忆模块，比直接选择未探索方向更可靠。
- 工程降本技巧：紧凑诊断上下文可减少 44% token，revision-aware execution reuse 跳过未改动组件；适合工业级 Agent pipeline 的低成本自动调优。
AutoViewMem：自配置正交视图的对话长期记忆框架
🧭 Agent 长期记忆 · 多视图写入组织 ★ 深度解读
National University of Defense Technology
在写入时用自配置低重叠语义视图组织长期对话记忆，使简单 top-K 检索即可稳定找到相关证据
📌 工作参考价值（4 点）
- 对电商导购 / 客服 Agent 的用户长期记忆，不要把所有对话日志压成一个 embedding；可借鉴 AutoViewMem 用多个语义视图（如偏好、预算、物流、售后、家庭结构）在写入时抽取结构化字段，降低后续检索的语义干扰。
- 视图选择可用 DPP 做低重叠、多样化的轻量 schema 选择：每 N 个会话块让 LLM 候选生成视图，再用同一 dense encoder 嵌入并选 top-K，工程成本可控，且能动态适应用户专属画像。
- 检索评估必须按 provenance / 证据 ID 去重，否则同一证据在不同视图下重复命中会虚高；落地时给每条记忆打 timestamp、view tag、source span ID，便于审计、回滚和线上诊断。
- 离线 consolidation 可用 embedding 相似度构图 + LLM 裁决合并冗余，但要保留 provenance 并谨慎处理时间版本与冲突；可异步执行，不改变在线检索链路，适合 Agent 长期记忆增量化维护。
交互式记忆学习用于长期对话
🧭 多智能体协作记忆优化 ★ 深度解读
Harbin Institute of Technology, Shenzhen · Pengcheng Laboratory, China
提出 ICML 多智能体在线强化学习框架，Planner 与 Trigger 通过跨会话延迟奖励共同进化，实现记忆策略自演进
📌 工作参考价值（4 点）
- 将记忆写入（Planner）和记忆召回（Trigger）拆成两个可学习策略，用 PPO 在线更新，适合客服/导购等用户偏好频繁变化场景；Planner 过滤噪音控制上下文长度，Trigger 按当前 query 选择记忆。
- 跨会话延迟奖励机制：把未来响应质量反传回当初的存储决策，解决记忆价值滞后问题，可迁移到电商中用户长期反馈对画像写入策略的反哺。
- 用 Retrospective Session Synthesis 反向生成一致故事线并标注记忆依赖，做冷启动专家数据，可借鉴为合成用户会话数据训练记忆策略，缓解在线 RL 稀疏奖励。
- 实现 plug-and-play，不改闭源 LLM 权重，仅训练小模型策略，构造延迟约 63ms、检索约 13ms，对已有线上 LLM 对话系统做记忆增强成本低。
MobileMem：移动端长期记忆基准与知识引导数据合成框架
🧭 面向移动设备 Agent 的长期记忆基准与数据合成 ★ 深度解读
OPPO · OpenKG
提出移动端长期记忆基准 MobileMem 与合成框架 KEME，系统评估端侧记忆系统在多跳、时序、偏好推理上的能力。
📌 工作参考价值（4 点）
- 复合记忆架构可迁移到电商用户画像：论文提出的“系统级记忆层（blackboard）+ 应用级记忆（cognitive offloading）”两层架构，很适合电商/推荐场景。应用侧（如订单、搜索、浏览、客服对话）先做初筛，只上报有长期价值的用户事件，系统侧构建跨域用户知识图谱，既节省算力又保护隐私。
- 用 KEME 合成长期用户轨迹：缺少跨 session 真实交互数据是推荐/Agent 评测痛点。KEME 的 persona + knowledge anchors + temporal event graph 能生成时间一致、偏好演化的长周期用户行为序列，可用于模拟用户兴趣漂移、跨 app 关联行为，训练或评测个性化模型。
- 记忆系统选型结论直接可用：实验显示 HippoRAG2 与 A-MEM 显著优于 NaiveRAG 和 Long Context，核心在于保留原始交互细节 + 增强检索（实体关系图 PageRank / 丰富元数据）。在构建用户长期记忆库时，不要过度压缩摘要，应保留细粒度证据并用关键词、标签、图结构辅助召回。
- 按错误类型定位瓶颈：用 MemTrace 等归因工具区分提取错误、检索错误、生成错误，可指导优化方向。实际系统中多数失败可能来自上游提取或下游生成，而非只优化检索器。